Plans Don't Persist: Why Context Management Is Load Bearing for LLM Agents
计划不持久:为何上下文管理对LLM代理至关重要
🧭 Agent 上下文管理 · 计划衰减测量 ★ 深度解读
Snowflake AI Research
发现标准LLM代理将计划存于上下文而非内部状态,计划信号4-12倍衰减,且推理模型存在重推导污染
📌 工作参考价值(4 点)
- 在构建电商搜索/推荐代理时,若采用ReAct等框架,长任务中切勿轻易压缩或驱逐计划文本——计划信号会因上下文丢失而快速衰减,导致任务失败率陡增34.7pp。
- 可通过 replay pairing 方法诊断关键信息(如约束、工具schema)是上下文驻留还是内部持久化,避免上下文压缩时的隐蔽损坏。尤其对推理模型(DeepSeek-R1等)需使用 strict stripping 去除 <think> 重推导污染,否则测量失真。
- 计划衰减探针(如L32 Ridge回归)可提前4-5步预警行为偏差,适合用作代理的上下文监控器,在计划信号低于阈值时主动回注计划,无需等到动作偏离。
- 推理模型的 <think> 痕迹会不断重推导计划内容,可作为自然冗余,但依赖其完全恢复仍不现实;在压缩关键上下文前,需先验证代理是否已将信息内化。